大数据生态系统 修仙之道 HBase Blog

2019-04-10 Docs Language:简体中文 & English Programing Language:HBase Website:www.geekparkhub.com OpenSource GitHub repo size in bytes GeekDeveloper:JEEP-711 Github:github.com/geekparkhub Gitee:gitee.com/geekparkhub

🐘 HBase Technology 修仙之道 炼虚合道 🐘

Alt text

1. HBase 概述

1.1 HBase 简介

HBase是基于谷歌公司BigTable开发的开源分布式数据库,具有高可靠/高性能/面向列/可伸缩等特点.

HBase运行在HDFS之上,主要用来存储非结构化数据和半结构化数据.

HBase通过水平扩展的方式实现于存储大表数据(表规模可以达到数十亿行以及数百列),并且对大表数据读写访问可达到实时级别.

1.2 HBase 特点

1.2.1 海量存储

HBase适合存储PB级别海量数据,在PB级别数据以及采用廉价PC存储情况下,能在几十到百毫秒内返回数据,这与HBase极易扩展性息息相关,正式因为HBase良好的扩展性,才为海量数据存储提供了便利.

1.2.2 列式存储

列式存储也就是列族存储,HBase是根据列族来存储数据,列族下面可以有非常之多的列,列族在创建表示就必须指定.

1.2.3 极易扩展

HBase扩展性主要体现在 :
基于上层处理能力(RegionServer)的扩展
基于存储扩展(HDFS)
通过横向添加RegionServer机器,进行水平扩展,提升HBase上层处理能力,提升HBase服务更多Region能力.

1.2.4 高并发

由于大部分使用HBase架构,都是采用廉价PC,因此单个I/O延迟其实并不小,一般在几十到几百毫秒之间,高并发其实是在并发情况下,HBase单个I/O延迟下降并不多,能获得高并发,低延时服务.

1.2.5 稀疏

稀疏主要针对HBase列的灵活性,在列族中,可以指定任意列,在列数据为空的情况下,是不会占用存储空间.

1.3 HBase 应用场景

1.4 HBase 架构

enter image description here

1.5 HBase 角色

1.5.1 HMaster

HMaster 主节点, HMaster主要负责 : HRegionServer管理以及元数据更改,包括以下内容(新HRegionServer注册 / 表的增删改查 / HRegionServer负载均衡 / Region表分区 / 分布调整 / Region分裂 / 裂变后分配以及迁移).

HMaster采用主备模式部署,集群启动时,通过竞争获得主HMaster角色,主HMaster只能有一个,备HMaster进程在集群运行期间处于休眠状态,不干涉任何集群事务,当主HMaster故障时,备用HMaster将取代主用HMaster对外提供服务.

1.5.2 HRegionServer

HRegionServer是HBase从节点,HRegionServer负责提供表数据读写服务,是数据存储和和计算单元,HRegionServer与HDFS集群的DataNode部署在一起,实现数据存储功能.

1.5.3 HDFS

HDFS为HBase提供最终底层数据存储服务,同时为HBase提供高可用.
HDFS提供元数据和表数据的底层分布式存储服务.
HDFS数据副本,保证高可靠性和高可用性.

1.5.4 Zookeeper

Zookeeper为HBase集群各进程提供分布式协作服务,各HRegionServer将自身信息注册到Zookeeper中,HMaster据此感知各个HRegionServer健康状态.

HBase通过Zookeeper来作为master高可用 / HRegionServer监控 / 元数据入口 / 集群配置维护等.

通过Zookeeper来保证集群中只有1个master运行,如master异常,会通过竞争机制产生新的master对外提供服务.

通过Zookeeper来监控HRegionServer状态,当HRegionServer有异常时,通过回调形式通知MasterHRegionServer上下线信息.

通过Zookeeper存储元数据信息统一入口地址.

1.5.5 Client

Client包括访问HBase接口,另外Client还维护对应的Cache来加速HBase访问.

1.5.6 其他组件

1.5.6.1 Write-Ahead logs

HBase修改记录,当对HBase读写数据时,数据不是直接写进磁盘,它会在内存中保留一段时间(时间以及数据量阈值可以设定),但把数据保存在内存中可能有更高的概率引起数据丢失,为了解决这个问题,数据会先写在一个叫做Write-Ahead logfile文件中,然后再写入内存中,所以在系统出现故障时,数据可以通过这个日志文件重建.

1.5.6.2 HFile

在磁盘上保存原始数据实际的物理文件,是实际存储文件.

1.5.6.3 Store

HFile存储在Store中,一个Store对应HBase表中一个列族.

1.5.6.4 MemStore

内存存储位于内存中,用来保存当前数据操作,所以当数据保存在WAL中之后,RegsionServer会在内存中存储键值对.

1.5.6.5 Region

Hbase表分片,HBase表会根据RowKey值被切分成不同Region存储在RegionServer中,在一个RegionServer中可以有多个不同的Region.

2. HBase 部署

2.1 Zookeeper 服务

[root@systemhub511 zookeeper]$ bin/zkServer.sh start

[root@systemhub611 zookeeper]$ bin/zkServer.sh start

[root@systemhub711 zookeeper]$ bin/zkServer.sh start

2.2 Hadoop 服务

[root@systemhub511 hadoop]$ sbin/start-dfs.sh

[root@systemhub611 hadoop]$ sbin/start-yarn.sh

2.3 HBase 服务

[root@systemhub511 software]# tar -zxvf hbase-1.3.1-bin.tar.gz -C /opt/module/

[root@systemhub511 module]# mv hbase-1.3.1 hbase

[root@systemhub511 hbase]# ll

total 348

drwxr-xr-x.  4 root root   4096 Apr  5  2017 bin

-rw-r--r--.  1 root root 148959 Apr  7  2017 CHANGES.txt

drwxr-xr-x.  2 root root   4096 Apr  5  2017 conf

drwxr-xr-x. 12 root root   4096 Apr  7  2017 docs

drwxr-xr-x.  7 root root   4096 Apr  7  2017 hbase-webapps

-rw-r--r--.  1 root root    261 Apr  7  2017 LEGAL

drwxr-xr-x.  3 root root   4096 Apr 26 14:43 lib

-rw-r--r--.  1 root root 130696 Apr  7  2017 LICENSE.txt

-rw-r--r--.  1 root root  43258 Apr  7  2017 NOTICE.txt

-rw-r--r--.  1 root root   1477 Sep 21  2016 README.txt

[root@systemhub511 hbase]# 

[root@systemhub511 hbase]# echo $JAVA_HOME

/opt/module/jdk1.8.0_162

[root@systemhub511 hbase]# cd conf/

[root@systemhub511 conf]# vim hbase-env.sh

# The java implementation to use.  Java 1.7+ required.

export JAVA_HOME=/opt/module/jdk1.8.0_162

export HBASE_MANAGES_ZK=false

<configuration>

  <property>

   <name>hbase.rootdir</name>   

   <value>hdfs://systemhub511:9000/hbase</value>     

  </property>

  <property>             

    <name>hbase.cluster.distributed</name>

    <value>true</value>

  </property>

  <!--0.98后的新变动,之前版本没有.port,默认端口为60000 -->

  <property>

    <name>hbase.master.port</name>

    <value>16000</value>

  </property>          

  <property>            

    <name>hbase.zookeeper.quorum</name>

    <value>systemhub511:2181,systemhub611:2181,systemhub711:2181</value>

  </property>

  <property>                        

    <name>hbase.zookeeper.property.dataDir</name>

    <value>/opt/module/zookeeper/zkData</value>

  </property>

</configuration>

systemhub511

systemhub611

systemhub711

#!/bin/bash

echo "================          Start All Node Services         ==========="

echo "================================================================"

echo "================          Starting Zookeeper              ==========="

echo "================================================================"



for i in root@systemhub511 root@systemhub611 root@systemhub711

do

    ssh $i 'source /etc/profile;/opt/module/zookeeper/bin/zkServer.sh start'

done



echo "================          Starting HDFS           ==========="

ssh root@systemhub511 '/opt/module/hadoop/sbin/start-dfs.sh'



echo "================          Starting YARN           ==========="

ssh root@systemhub611 '/opt/module/hadoop/sbin/start-yarn.sh'



echo "================          Starting JobHistoryServer       ==========="

ssh root@systemhub511 '/opt/module/hadoop/sbin/mr-jobhistory-daemon.sh start historyserver'

#!/bin/bash

echo "================          Stopping All Node Services      ==========="

echo "================          Stopping JobHistoryServer       ==========="

ssh root@systemhub511 '/opt/module/hadoop/sbin/mr-jobhistory-daemon.sh stop historyserver'



echo "================          Stopping YARN           ==========="

ssh root@systemhub611 '/opt/module/hadoop/sbin/stop-yarn.sh'



echo "================          Stopping HDFS           ==========="

ssh root@systemhub511 '/opt/module/hadoop/sbin/stop-dfs.sh'



echo "================          Stopping Zookeeper      ==========="

for i in root@systemhub511 root@systemhub611 root@systemhub711

do

    ssh $i 'source /etc/profile;/opt/module/zookeeper/bin/zkServer.sh stop'

done

 #!/bin/bash

for host in root@systemhub511 root@systemhub611 root@systemhub711

do

    echo "================      $host All Processes             ==========="

    ssh $host '/opt/module/jdk1.8.0_162/bin/jps'

done

[root@systemhub511 ~]# ln -s /opt/module/hadoop/etc/hadoop/core-site.xml /opt/module/hbase/conf/core-site.xml

[root@systemhub511 ~]#

[root@systemhub511 ~]# ln -s /opt/module/hadoop/etc/hadoop/hdfs-site.xml /opt/module/hbase/conf/hdfs-site.xml

[root@systemhub511 ~]#

[root@systemhub511 ~]# scp -r /opt/module/hbase/ systemhub611:/opt/module/hbase/

[root@systemhub511 ~]# scp -r /opt/module/hbase/ systemhub711:/opt/module/hbase/

[root@systemhub511 hbase]# bin/hbase-daemon.sh start master

[root@systemhub511 hbase]# bin/hbase-daemon.sh start regionserver

[root@systemhub511 hbase]# bin/start-hbase.sh

starting master, logging to /opt/module/hbase/bin/../logs/hbase-root-master-systemhub511.out

systemhub711: starting regionserver, logging to /opt/module/hbase/bin/../logs/hbase-root-regionserver-systemhub711.out

systemhub611: starting regionserver, logging to /opt/module/hbase/bin/../logs/hbase-root-regionserver-systemhub611.out

systemhub511: starting regionserver, logging to /opt/module/hbase/bin/../logs/hbase-root-regionserver-systemhub511.out

<property>

  <name>hbase.master.maxclockskew</name>

  <value>180000</value>

  <description>Time difference of regionserver from master</description>

</property>

enter image description here

3. HBase Shell

3.1 基本操作

3.1.1 进入HBase客户端命令行窗口

[root@systemhub511 hbase]# bin/hbase shell

hbase(main):001:0>

3.1.2 查看帮助命令

hbase(main):001:0> help

HBase Shell, version 1.3.1, r930b9a55528fe45d8edce7af42fef2d35e77677a, Thu Apr  6 19:36:54 PDT 2017

Type 'help "COMMAND"', (e.g. 'help "get"' -- the quotes are necessary) for help on a specific command.

Commands are grouped. Type 'help "COMMAND_GROUP"', (e.g. 'help "general"') for help on a command group.



COMMAND GROUPS:

  Group name: general

  Commands: status, table_help, version, whoami



  Group name: ddl

  Commands: alter, alter_async, alter_status, create, describe, disable, disable_all, drop, drop_all, enable, enable_all, exists, get_table, is_disabled, is_enabled, list, locate_region, show_filters



The HBase shell is the (J)Ruby IRB with the above HBase-specific commands added.

For more on the HBase Shell, see http://hbase.apache.org/book.html

hbase(main):002:0>

3.1.3 查看当前数据库中有哪些表

hbase(main):002:0> list

TABLE        

0 row(s) in 0.4020 seconds

=> []

hbase(main):003:0>

3.2 表操作

3.2.1 创建表

hbase(main):003:0> create 'test','info'

0 row(s) in 2.8000 seconds



=> Hbase::Table - test

hbase(main):004:0>

3.2.2 插入数据到表

hbase(main):004:0> put 'test','0001','info:name','testuser001'

0 row(s) in 0.3590 seconds



hbase(main):005:0>

3.2.3 扫描查看表数据

hbase(main):008:0> scan 'test'

ROW                        COLUMN+CELL                                                                 

 0001                      column=info:age, timestamp=1556459945452, value=60                          

 0001                      column=info:name, timestamp=1556459442613, value=testuser001                

 0002                      column=info:age, timestamp=1556459962770, value=70                          

 0002                      column=info:name, timestamp=1556459836540, value=testuser002                

2 row(s) in 0.0450 seconds



hbase(main):009:0> 

hbase(main):012:0> scan 'test',{STARTROW => '0001',STOPROW => '0002'}

ROW                        COLUMN+CELL

 0001                      column=info:age, timestamp=1556459945452, value=60                          

 0001                      column=info:name, timestamp=1556459442613, value=testuser001                

1 row(s) in 0.0310 seconds



hbase(main):013:0>

3.2.4 查看 指定行或指定列族:列数据

hbase(main):009:0> get 'test','0001'

COLUMN                     CELL         

 info:age                  timestamp=1556459945452, value=60   

 info:name                 timestamp=1556459442613, value=testuser001

1 row(s) in 0.0460 seconds

hbase(main):010:0> get 'test','0001','info:name'

COLUMN                     CELL                                                                        

 info:name                 timestamp=1556459442613, value=testuser001

1 row(s) in 0.0260 seconds

hbase(main):011:0>

3.2.5 查看表结构

hbase(main):011:0> describe 'test'

Table test is ENABLED

test                                                                                                   

COLUMN FAMILIES DESCRIPTION

{NAME => 'info', BLOOMFILTER => 'ROW', VERSIONS => '1', IN_MEMORY => 'false', KEEP_DELETED_CELLS => 'FA

LSE', DATA_BLOCK_ENCODING => 'NONE', TTL => 'FOREVER', COMPRESSION => 'NONE', MIN_VERSIONS => '0', BLOC

KCACHE => 'true', BLOCKSIZE => '65536', REPLICATION_SCOPE => '0'}                                      

1 row(s) in 0.1010 seconds

hbase(main):012:0>

3.2.6 变更表信息

hbase(main):014:0> alter 'test',{NAME=>'info',VERSIONS=>3}

Updating all regions with the new schema...

0/1 regions updated.

1/1 regions updated.

Done.

0 row(s) in 3.0960 seconds

hbase(main):015:0> 

hbase(main):015:0> get 'test','0001',{COLUMN=>'info:name',VERSIONS=>3}

COLUMN                     CELL

 info:name                 timestamp=1556459442613, value=testuser001                                  

1 row(s) in 0.0260 seconds

hbase(main):016:0>

3.2.7 更新指定字段数据

hbase(main):004:0> put 'test','0001','info:name','testuser003'

0 row(s) in 0.3590 seconds



hbase(main):005:0>

3.2.8 统计表数据行数

hbase(main):016:0> count 'test'

2 row(s) in 0.1140 seconds

=> 2

hbase(main):017:0>

3.2.9 删除数据

hbase(main):017:0> delete 'test','0002','info:age'

hbase(main):016:0> deleteall 'test','0001'

3.2.10 清空表数据

hbase(main):018:0> truncate 'test'

3.2.11 删除表

hbase(main):019:0> disable 'test'

hbase(main):020:0> drop 'test'

4. HBase 数据结构

4.1 Row Key

与nosql数据库们一样,row key是用来检索记录主键,访问HBASE表中的行,只有三种方式 :

Row key行键(Row key)可以是任意字符串(最大长度是64KB,实际应用中长度一般为10-100bytes),在HBASE内部,row key保存为字节数组, 存储时数据按照Row key的字典序(byte order)排序存储,设计key时,要充分排序存储这个特性,将经常一起读取的行存储放到一起(位置相关性).

4.2 Columns Family

列族 : HBASE表中每个列都归属于某个列族,列族是表的schema的一部分(而列不是),必须在使用表之前定义,列名都以列族作为前缀,例如courses:history,courses:math都属于courses这个列族.

4.3 Cell

由{row key, columnFamily, version} 唯一确定单元,cell中数据是没有类型的,全部是字节码形式存贮,关键字 : 无类型/字节码.

4.4 Time Stamp

HBASE中通过rowkey和columns确定为一个存贮单元称为cell,每个cell都保存着同一份数据的多个版本,版本通过时间戳来索引,时间戳类型是64位整型,时间戳可以由HBASE(在数据写入时自动)赋值,此时时间戳是精确到毫秒的当前系统时间,时间戳也可以由开发者显式赋值,如果应用程序要避免数据版本冲突,就必须自己生成具有唯一性的时间戳,每个cell中,不同版本的数据按照时间倒序排序,即最新的数据排在最前面.

为了避免数据存在过多版本造成管理(包括存贮和索引)负担,HBASE提供了两种数据版本回收方式.
一是保存数据的最后n个版本.
二是保存最近一段时间内的版本(比如最近七天),用户可以针对每个列族进行设置.

4.5 命名空间

enter image description here

1.Table : 表 , 所以的表都是命名空间的成员,既表必属于某个命名空间,如果没有指定,则在default默认命名空间中.

2.RegionServerGroup : 一个命名空间包含了默认的RegionServerGroup.

3.Permission : 权限 , 命名空间能够让开发者来定义访问控制表ACL(Access Control List). 例如 : 创建表 / 读取表 / 删除 / 更新等操作.

4.Quota : 限额 , 可以强制一个命名空间可包含的region数据.

5. HBase 原理

5.1 HBase 读数据流程

enter image description here

enter image description here

enter image description here

[zk: localhost:2181(CONNECTED) 0] ls /

[cluster, controller_epoch, controller, brokers, zookeeper, admin, isr_change_notification, consumers, latest_producer_id_block, config, hbase]

[zk: localhost:2181(CONNECTED) 1] ls /hbase

[replication, meta-region-server, rs, splitWAL, backup-masters, table-lock, flush-table-proc, region-in-transition, online-snapshot, switch, master, running, recovering-regions, draining, namespace, hbaseid, table]

[zk: localhost:2181(CONNECTED) 2] 

[zk: localhost:2181(CONNECTED) 4] get /hbase/meta-region-server

�regionserver:16020e��;0Z�PBUF

⎽≤⎽├␊└␤┤␉711�£�����-

␌Z│␋␍ = 0│1␊00000051

␌├␋└␊ = M⎺┼ A⎻⎼ 29 01:37:37 CST 2019

└Z│␋␍ = 0│1␊00000051

└├␋└␊ = M⎺┼ A⎻⎼ 29 01:37:37 CST 2019

⎻Z│␋␍ = 0│1␊00000051

␌┴␊⎼⎽␋⎺┼ = 0

␍▒├▒V␊⎼⎽␋⎺┼ = 0

▒␌┌V␊⎼⎽␋⎺┼ = 0

␊⎻␤␊└␊⎼▒┌O┬┼␊⎼ = 0│0

␍▒├▒L␊┼±├␤ = 65

┼┤└C␤␋┌␍⎼␊┼ = 0

[≥┐: ┌⎺␌▒┌␤⎺⎽├:2181(CONNECTED) 5] 

hbase(main):002:0> scan 'hbase:meta'

ROW                        COLUMN+CELL                                                                 

 hbase:namespace,,15562836 column=info:regioninfo, timestamp=1556473360414, value={ENCODED => d89184e0b

 52968.d89184e0b0e8bf9782b 0e8bf9782b86edf991f56d2, NAME => 'hbase:namespace,,1556283652968.d89184e0b0e

 86edf991f56d2.            8bf9782b86edf991f56d2.', STARTKEY => '', ENDKEY => ''}                      

 hbase:namespace,,15562836 column=info:seqnumDuringOpen, timestamp=1556473360414, value=\x00\x00\x00\x0

 52968.d89184e0b0e8bf9782b 0\x00\x00\x00\x14                                                           

 86edf991f56d2.                                                                                        

 hbase:namespace,,15562836 column=info:server, timestamp=1556473360414, value=systemhub511:16020       

 52968.d89184e0b0e8bf9782b                                                                             

 86edf991f56d2.                                                                                        

 hbase:namespace,,15562836 column=info:serverstartcode, timestamp=1556473360414, value=1556473045363   

 52968.d89184e0b0e8bf9782b                                                                             

 86edf991f56d2.                                                                                        

 test,,1556459101215.6b00f column=info:regioninfo, timestamp=1556473359938, value={ENCODED => 6b00fc62a

 c62ac627c675022a7fafb6fbf c627c675022a7fafb6fbfa0, NAME => 'test,,1556459101215.6b00fc62ac627c675022a7

 a0.                       fafb6fbfa0.', STARTKEY => '', ENDKEY => ''}                                 

 test,,1556459101215.6b00f column=info:seqnumDuringOpen, timestamp=1556473359938, value=\x00\x00\x00\x0

 c62ac627c675022a7fafb6fbf 0\x00\x00\x00\x13                                                           

 a0.                                                                                                   

 test,,1556459101215.6b00f column=info:server, timestamp=1556473359938, value=systemhub611:16020       

 c62ac627c675022a7fafb6fbf                                                                             

 a0.                                                                                                   

 test,,1556459101215.6b00f column=info:serverstartcode, timestamp=1556473359938, value=1556473042292   

 c62ac627c675022a7fafb6fbf                                                                             

 a0.                                                                                                   

2 row(s) in 0.0530 seconds



hbase(main):003:0>

5.2 HBase 写数据流程

enter image description here

enter image description here

5.3 HBase 数据Flush过程

5.4 HBase 数据Compact过程

5.5 Hmaster 职责

5.6 HRegionServer 职责

5.7 Client 职责

6. HBase API

7. HBase 优化

8. 修仙之道 技术架构迭代 登峰造极之势

Alt text

💡如何对该开源文档进行贡献💡

  1. Blog内容大多是手敲,所以难免会有笔误,你可以帮我找错别字。

  2. 很多知识点我可能没有涉及到,所以你可以对其他知识点进行补充。

  3. 现有的知识点难免存在不完善或者错误,所以你可以对已有知识点的修改/补充。

  4. 💡欢迎贡献各领域开源野生Blog&笔记&文章&片段&分享&创想&OpenSource Project&Code&Code Review

  5. 🙈🙈🙈🙈🙈🙈🙈🙈🙈🙈🙈 issues: geekparkhub.github.io/issues 🙈🙈🙈🙈🙈🙈🙈🙈🙈🙈🙈

希望每一篇文章都能够对读者们提供帮助与提升,这乃是每一位笔者的初衷

💌感谢您的阅读 欢迎您的留言与建议💌

捐助 项目的发展离不开你的支持,请开发者喝杯☕Coffee☕吧!

enter image description here

致谢：

捐助时请备注 UserName

ID UserName Donation Money Consume
1 Object WeChatPay 5RMB 一杯可乐
2 泰迪熊看月亮 AliPay 20RMB 一杯咖啡
3 修仙道长 WeChatPay 10RMB 两杯可乐

License 开源协议

Apache License Version 2.0